Trong thống kê, các khái niệm khung trong lý thuyết xác suất vẫn được tôn trọng. Tuy nhiên, sự lưu ý giờ chuyển tới phép ước lượng các tham số của một phân bố dựa trên dữ liệu quan sát được hay dựa trên các giả thiết thử nghiệm trên dữ liệu này. Trong phép uớc lượng cổ điển, các tham số này được xem là "cố định nhưng chưa xác định"; ngược lại, trong phép Ước lượng Bayes chúng là các biến ngẫu nhiên với các phép phân bố riêng của chúng.

Hoàn toàn có thể đưa ra các kết luật thống kê mà không có các giả thiết về một họ tham số đặc trưng của các phép phân bố xác suất. Trường hợp đó gọi là thống kê phi tham số; ngược với thống kê có tham số đã được mô tả trong phần trước. Chẳng hạn, Spearman là một phép thử phi tham số mà nó được tính dựa trên bậc (order) của dữ liệu bất chấp các giá trị hiện thời của chúng, trong đó, Pearson là một tham số thử được tính trực tiếp trên các dữ liệu và có thể dùng để suy ra một quan hệ toán hoc.

Các thống kê là các tính chất toán học của các mẫu mà có thể được dùng như là những tham số của các ước lượng, và là các tính chất toán học của tổng thể mà từ đó các mẫu được lấy ra.